Masjid Kampung Gangsa ini pada asalnya bermula sekitar tahun 1918 dengan penempatan penduduk di Kampong Gangsa, yang pada waktu itu tidak ramai. Mereka sepakat bergotong royong membina sebuah surau kayu, di tapak Masjid Kampong Gangsa yang sediada sekarang. Pada awalnya ia merupakan sebuah masjid kayu, dan slepas Merdeka pada tahun 1964, dengan bantuan kerajaan, surau kayu tersebut telah dirobohkan dan didirikan sebuah bangunan masjid. Tanah tapak masjid di wakafkan oleh seorang penduduk Kampong Gangsa, bangunan masjid Kampong Gangsa telah dibina semula dengan menggunakan batu pada tahun 1964 dengan bantuan kerajaan dan derma dari orang ramai. Pada waktu itu, Masjid Kampung Gangsa hanya dapat menampung jemaah disekitar 150 orang sahaja. Pembesaran Masjid Kampung Gangsa pada pertama kali dalam tahun 1975.

Pada tahun 1975 atas bantuan kerajaan sekali lagi kawasan Masjid Gangsa telah diperbesarkan dan boleh menampung jemaah di dalam masjid seramai 400 orang. Dari setahun ke tahun penduduk-penduduk Kampong Gangsa bertambah, taman-taman di sekitar Kampong Gangsa di dirikan bagai cendawan. Terdapat 9 taman di sekitar Kampong Gangsa yang mana telah menyebabkan Masjid Kampong Gangsa menjadi terlalu padat, lebih-lebih lagi pada hari-hari raya, hari Jumaat, jemaah yang datang ke masjid, bersolat hinggakan di luar kawasan masjid. Ahli-ahli Jawatan Kuasa Lembaga Masjid Kampong Gangsa, menyedari masalah ini, Masjid Kampong Gangsa perlu pembangunan maupun pembaikkan-pembaikkan segera, bagi menampong jemaah dan jemaah dapat beribadat dengan lebih selesa.

Pada tahun 2003 dengan bantuan orang ramai, ruang solat wanita dan tempat mengambil wuduk telah dapat dibesarkan dengan perbelanjaan sebanyak RM14,000.00. Begitu juga pada tahun 2007 kawasan masjid dilebarkan lagi sehingga ke kawasaan permukaan jalan, semua perbelanjaan sebanyak RM27,000.00, hasil sumbangan penduduk-penduduk kampong dan penduduk-penduduk taman di sekitar Kampong Gangsa. Bangunan tandas lama dan tempat mengambil wuduk lelaki, telah dibaik pulih serta di dirikan Bangunan Tandas Baru, hasil dari bantuan Kerajaan. Dengan pembesaran tersebut, maka dapatlah Masjid Kampong Gangsa menampong jemaah dari 600 hingga ke 750 jemaah dalam satu-satu masa, dalam tahun 2008 atas arahan Jabatan Agama Islam Negeri Melaka, Masjid Kampong Gangsa telah di tukarkan Masjid Ihsanuddin Kampong Gangsa.